央視報(bào)道

近日，央視新聞報(bào)道，西安一家公司財(cái)務(wù)人員因接到AI換臉后“老板”的視頻電話，險(xiǎn)將186萬轉(zhuǎn)給騙子；一家跨國公司香港分公司因未能識破AI換臉騙局，被騙走了 2500 萬美元（約 1.8 億人民幣）。隨著人工智能技術(shù)的進(jìn)步，一些不法分子開始利用AI技術(shù)融合他人面孔和聲音，制造非常逼真的合成圖像來實(shí)施新型網(wǎng)絡(luò)詐騙，這類騙局常常會(huì)在短時(shí)間內(nèi)給被害人造成較大損失。如何看清這類AI“深度造假”成為時(shí)下關(guān)注的熱點(diǎn)。

“ 中國網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專委會(huì)專家、天融信科技集團(tuán)副總裁薛智慧接受央視新聞采訪表示，人工智能技術(shù)應(yīng)用需要多層面監(jiān)管規(guī)范，從源頭、技術(shù)與法律制度等層面出發(fā)加強(qiáng)安全評估和管理。”

技術(shù)上如何實(shí)現(xiàn)人臉精確識別與替換

采訪過程中，薛智慧為央視記者演示了AI實(shí)時(shí)換臉，僅需短暫數(shù)秒，即可實(shí)現(xiàn)全新的“面容”轉(zhuǎn)換。

AI換臉過程主要包括人臉識別追蹤、面部特征提取、人臉變換融合、背景環(huán)境渲染、圖像與音頻合成等幾個(gè)關(guān)鍵步驟。其背后的原理可概括為三個(gè)部分：首先，利用深度學(xué)習(xí)算法精準(zhǔn)地識別視頻中的人臉圖像，并提取出如眼睛、鼻子、嘴巴等關(guān)鍵面部特征；其次，將這些特征與目標(biāo)人臉圖像進(jìn)行匹配、替換、融合；最后，通過背景環(huán)境渲染并添加合成后的聲音，最終生成逼真度較高的虛假換臉視頻。

人工智能人臉檢測技術(shù)主要通過深度學(xué)習(xí)算法實(shí)現(xiàn)，通過識別出面部特征并對其進(jìn)行精準(zhǔn)的分析，將一個(gè)人的面部表情從一張照片或視頻中提取出來，并將其與另一個(gè)人的面部特征進(jìn)行匹配。如果想要實(shí)現(xiàn)視頻實(shí)時(shí)通話時(shí)采用人工智能AI換臉技術(shù)，一張照片是遠(yuǎn)遠(yuǎn)不夠的，那就需要不同角度的近千張照片的采集。

薛智慧強(qiáng)調(diào)：如果要實(shí)時(shí)點(diǎn)對點(diǎn)交流的話，需要采集更多的照片，進(jìn)行深度學(xué)習(xí)算法模型的訓(xùn)練，訓(xùn)練出來這個(gè)模型以后灌到視頻里去，就可以做實(shí)時(shí)的變化跟轉(zhuǎn)換了，進(jìn)而達(dá)到實(shí)時(shí)變臉的效果。聲音的交流也是如此，需要預(yù)先采集一些咱們目標(biāo)人群當(dāng)中的聲音，然后進(jìn)行模型的訓(xùn)練，能夠把目標(biāo)人群的聲音還原出來。

AI生成仿真度極高視頻 難度高投入大

以詐騙為目的，實(shí)施點(diǎn)對點(diǎn)視頻通話，需要AI人工智能生成仿真度極高的視頻。想要達(dá)到以假亂真效果用于詐騙，難度不小。

薛智慧介紹：這背后需要有大量的資金投入，包括圖片的采集、專業(yè)算法的人員支撐等等。各方面的投入，需要長時(shí)間不斷地迭代，進(jìn)行操作，才能達(dá)到一個(gè)相當(dāng)逼真的效果，進(jìn)而可能實(shí)現(xiàn)到詐騙的實(shí)際效果。

目前AI“換臉”更多應(yīng)用于娛樂視頻錄制

除了一些不法分子企圖利用AI技術(shù)實(shí)施詐騙，事實(shí)上，近年來，AI技術(shù)更多地被應(yīng)用于短視頻的二次創(chuàng)作，屬于娛樂性質(zhì)，越來越多的名人AI換臉視頻出現(xiàn)在網(wǎng)絡(luò)上，不少網(wǎng)友感嘆，這類視頻“嘴型、手勢都對得上，太自然了，差點(diǎn)兒以為是真的。”

△網(wǎng)友發(fā)布的女士系絲巾原版視頻

△需要變換的臉的照片

△生成視頻

薛智慧表示：如果從娛樂大眾的角度來說的話，現(xiàn)在市面上也有很多相關(guān)軟件和工具，能夠達(dá)到AI換臉的效果，但是仿真度只有六七分的樣子，大眾直接就能看出來。但是如果要生成一個(gè)詐騙視頻來說話，就要生成仿真度極高的點(diǎn)對點(diǎn)視頻。

AI技術(shù)“換臉換聲”可能存在法律風(fēng)險(xiǎn)

AI技術(shù)是把“雙刃劍”，即使是出于娛樂使用AI換臉、AI換聲，也是存在法律風(fēng)險(xiǎn)的。用AI技術(shù)為他人換臉換聲甚至翻譯成其他語言并發(fā)布視頻，可能涉嫌侵權(quán)，主要有三個(gè)方面：

一是涉嫌侵犯著作權(quán)，例如相聲、小品等都屬于《中華人民共和國著作權(quán)法》保護(hù)的“作品”。例如網(wǎng)友用AI軟件將相聲、小品等“翻譯”成其他語言，需經(jīng)過著作權(quán)人授權(quán)，否則就存在侵權(quán)問題。

二是涉嫌侵犯肖像權(quán)，根據(jù)《中華人民共和國民法典》，任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開肖像權(quán)人的肖像，但是法律另有規(guī)定的除外。

三是涉嫌侵犯聲音權(quán)，根據(jù)《中華人民共和國民法典》規(guī)定，對自然人聲音的保護(hù)，參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定。也就是說，需要取得聲音權(quán)人的同意，才能夠使用他人的聲音。

提高防范意識 避免個(gè)人生物信息泄露

我們每一個(gè)人都應(yīng)該提高防范意識，在日常生活中也要做好相關(guān)防范措施，養(yǎng)成良好的上網(wǎng)習(xí)慣。首先應(yīng)該是做好日常的信息安全保護(hù)，加強(qiáng)對人臉、聲紋、指紋等生物特征數(shù)據(jù)的安全防護(hù)：另外做好個(gè)人的手機(jī)、電腦等終端設(shè)備的軟硬件的安全管理。第二，不要登錄來路不明的網(wǎng)站，以免被病毒侵入。第三，對可能進(jìn)行聲音、圖像甚至視頻和定位采集的應(yīng)用，做好授權(quán)管理。不給他人收集自己信息的機(jī)會(huì)，也能在一定程度上讓AI換臉詐騙遠(yuǎn)離自己。

伴隨AI技術(shù)發(fā)展 需要多層面監(jiān)管規(guī)范

除了要提高自我防范意識，如何對AI技術(shù)加強(qiáng)監(jiān)管，也成了越來越多人關(guān)注的問題。AI技術(shù)本身不是問題，關(guān)鍵是我們要怎么用它？如何形成有效監(jiān)管？AI技術(shù)發(fā)展，需要多層面監(jiān)管規(guī)范。

一是在源頭端，需要進(jìn)一步加強(qiáng)公民個(gè)人信息保護(hù)，尤其是加強(qiáng)對生物特征等隱私信息的技術(shù)、司法保護(hù)力度。

二是在技術(shù)層面可以加強(qiáng)管理。例如可以讓視頻傳播網(wǎng)站或者社交軟件，使用專業(yè)的鑒別軟件來鑒定，對AI生成視頻，打上不可消除的“AI生成”水印字樣。目前，這種數(shù)字水印鑒偽技術(shù)有待進(jìn)一步普及。

三是在法律制度層面，要進(jìn)一步完善人工智能等領(lǐng)域相關(guān)法律法規(guī)。2023年8月15日，我國正式施行《生成式人工智能服務(wù)管理暫行辦法》?！掇k法》從多個(gè)方面“劃下紅線”，旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用。

部分來源：央視新聞客戶端